Amazon казва, че неговите чипове от следващо поколение са четири пъти по-бързи за AI обучение
Amazon Web Services (AWS) току-що започна своята базирана в Лас Вегас конференция re:Invent, повечето от които включват най-популярната технология за годината, AI. Тези новини, взети като цяло, ни дават кратък поглед към дългосрочните цели на компанията за платформи с изкуствен интелект.
На първо място, AWS разкри, предназначен за обучение на модели и за управление на обучени модели. Trainium2, който очевидно е за обучение на модели, е проектиран да предоставя до 4 пъти по-добра производителност и 2 пъти енергийна ефективност в сравнение със своя предшественик. Amazon обещава, че тези чипове ще позволят на програмистите да обучават модели бързо и на по-ниска цена, поради намаляване на потреблението на енергия. Anthropic вече обяви планове за изграждане на модели, използващи чипове Trainium2.
Graviton4, от друга страна, е по-скоро за обща употреба. Тези процесори са базирани на архитектура Arm, но консумират по-малко енергия от чиповете на Intel или AMD. Amazon обещава увеличение от 30 процента в общата производителност при използване на обучен AI модел, вграден в процесор Graviton4. Това би трябвало да намали разходите за изчисления в облак за организации, които редовно използват AI модели, и да предложи леко увеличение на скоростта за обикновените потребители, които просто искат да направят няколко фалшиви снимки на Хари Потър на рейв или каквото и да било.
Като цяло, Graviton4 трябва да позволи на клиентите на AWS да „обработват по-големи количества данни, да мащабират работните си натоварвания, да подобрят времето за постигане на резултати и да намалят общата си цена на притежание“. Предлага се днес в предварителна версия с по-широко издание, планирано за следващите месеци.
Обикновено, когато дадена компания обяви нови собствени чипове, това създава проблеми за настоящите доставчици трети страни като NVIDIA. Компанията е огромен играч в корпоративното AI пространство, благодарение на компаниите, които използват нейните графични процесори за обучение и своя базиран на Arm център за данни CPU Grace. Вместо да избягва партньорството в полза на патентовани чипове, Amazon допълнително циментира връзката, като предлага на корпоративните клиенти облачен достъп до най-новите H200 AI GPU на NVIDIA. Той също така ще управлява повече от 16 000 суперчипа Nvidia GH200 Grace Hopper специално за екипа за изследване и развитие на NVIDIA. Това е подобен подход към неговия главен AI съперник, Microsoft, който също обяви засилено партньорство с NVIDIA по същото време, когато
Amazon също обяви име, което вероятно е вдъхновено от Star Trek полубога, а не от Близък до Тръмп конспиративен търговец. Той е описан като „нов тип генеративен личен асистент, задвижван от AI“ и е специално проектиран да помогне за рационализиране на работни проекти и задачи за обслужване на клиенти. Може да бъде пригоден за всеки бизнес и предлага подходящи отговори на често задавани въпроси. Amazon Q може също да генерира самостоятелно съдържание и да предприема действия въз основа на заявките на клиентите. Той дори ще персонализира взаимодействията въз основа на ролята на потребителя в компанията.
Ще съществува в приложения за комуникация като Slack и в приложения за редактиране на текст, често използвани от разработчиците на софтуер. За тази цел Q всъщност може да промени изходния код и да се свърже с повече от 40 корпоративни системи, включително Microsoft 365, Dropbox, Salesforce и Zendesk, наред с други. Понастоящем Amazon Q е наличен в предварителен преглед, като скоро ще има по-широко издание. Ще струва от $20 до $30 на потребител всеки месец, в зависимост от наличните функции.
И така, какво научихме тук? Amazon залага много на AI, както всички останали. По-конкретно, тя се бори със стария облачен съперник Microsoft, за да бъде предпочитаната компания за корпоративно базиран AI. Той също така използва AI, за да продължи своето господство в пространството на облачните изчисления, надявайки се да минимизира всяко увеличение на пазарния дял за Microsoft и други играчи като Google и Alibaba.
Вижте коментарите
